AI가 자체적인 경험을 통해 인간보다 심각한 편향을 만들어내어 채용 과정에서 위험을 초래할 수 있다는 연구 결과가 나왔습니다. 또한 예측 시장의 확대와 데이터 기반 AI 기상 예측이 도입되면서, 기상 데이터를 악의적으로 조작하려는 위협이 커지고 있어 대응이 필요합니다. 이 밖에도 스페이스X의 국방부 AI 컴퓨팅 공급, 팔란티어의 데이터 공유 논란 등 주요 기술 이슈를 점검해야 합니다.
최근 연구에 따르면, 채용 과정에서 ChatGPT, Claude, Gemini와 같은 대형 언어 모델(LLM)이 인간보다 훨씬 더 강력한 고정관념과 편향을 형성하는 것으로 나타났습니다. 특히 최신 추론 모델일수록 제한된 경험을 바탕으로 성급하게 일반화하는 경향이 강해집니다. 이는 사용자의 정보를 기억하고 맞춤화하는 최신 AI 에이전트 기술이 의도치 않은 차별과 편향을 야기할 수 있음을 시사하므로 매우 중요합니다.
아이비리그 의대 출신의 뛰어난 스펙에도 불구하고 병원 레지던트 지원에서 면접 조차 받지 못한 사례를 다룹니다. 지원자는 병원 측이 사용한 AI 이력서 스크리닝 도구가 휴학 이력(지병으로 인한 불가피한 휴학)을 오해하여 불이익을 주었다고 의심하고 있습니다. 이 사건은 실제 채용 과정에서 AI가 어떻게 작동하여 합격자를 가르는지, 그리고 그 기준이 얼마나 불투명하고 위험할 수 있는지 보여주는 중요한 사례입니다.